5.4 Stacking

• 将各种模型结合起来降低方差
  • 基础模型可以是不同的模型类别
  • 每个模型的输出concat起来然后通过一个全连接层学习权重
• stacking和bagging的区别：
  • bagging的模型都是相同的，数据不同；而stacking的数据是相同的（不用bootstrap），模型是不同的
    
    
• 第0个模型就是所有模型做stacking的结果
• 多层stacking
  

References

5.4 Stacking【斯坦福21秋季：实用机器学习中文版】_哔哩哔哩_bilibili